"Shine On You Crazy Diamond", cùng với những ca khúc khác trong album[2], được sáng tác hướng về cựu thủ lĩnh của ban nhạc, Syd Barrett[3]. Ca khúc bao gồm 9 phần, ban đầu vốn được thiết kế để làm toàn bộ mặt A cho album[4]. Ca khúc này cùng được viết đồng thời với "You've Got to Be Crazy" và "Raving and Drooling". Phần ca từ cũng bám theo chủ đề về Barrett, thể hiện ngay từ những dòng đầu tiên[4]:

Remember when you were young, you shone like the sun
Shine on you crazy diamond
Now there's that look in your eyes, like black holes in the sky
Shine on you crazy diamond.